Kirby ban đầu dự định rằng sẽ không sản xuất Everywhere. Sáu tháng trước khi phát hành giai đoạn đầu tiên, anh ấy đã nói chuyện về album với những người khác, giải thích rằng mình "muốn chắc chắn rằng nó không ra vẻ cao ngạo, kiêu căng." Các album đã được phát hành trong ba năm: giai đoạn đầu tiên vào năm 2016,[66][67][68] hai giai đoạn tiếp theo vào năm 2017,[69][70][71] hai giai đoạn áp chót vào năm 2018[72][73][74] và giai đoạn cuối cùng vào năm 2019.[75][76][77] Theo Kirby, việc phát hành được thực hiện để "mang lại cảm giác thời gian trôi qua" cho người nghe.[1] Mặc dù bày tỏ lo ngại về chứng mất trí nhớ với góc nhìn là một vấn đề xã hội, Kirby cho biết chứng rối loạn này không ảnh hưởng đến bản thân "ở mức độ cá nhân", gọi nó là "một sự mê hoặc hơn là nỗi sợ hãi".[2][54][56] Kirby lưu ý rằng trải nghiệm của mỗi bệnh nhân sa sút trí nhớ khác với từng cá nhân, khẳng định mô tả của mình là "duy nhất đối với The Caretaker".[56] Kirby cho biết nhạc của mình không có trên Spotify do những lời chỉ trích của bản thân về nó và "sự liên tục phá giá âm nhạc của các doanh nghiệp lớn và các dịch vụ phát trực tuyến."[78]

Khi phát hành giai đoạn đầu tiên vào ngày 22 tháng 9 năm 2016, Kirby đã công bố chủ đề của series:[79] những album thể hiện "sự tiến triển, mất mát và tan rã" khi chúng rơi xuống "vực thẳm của sự mất trí nhớ hoàn toàn". Một số nhà phê bình đã bối rối trước những tuyên bố này;[80] Jordan Darville của The Fader đã viết một bài viết báo cáo rằng Kirby được chẩn đoán mắc chứng mất trí nhớ giai đoạn đầu, cũng như Marvin Lin của Tiny Mix Tapes. Cả hai ấn phẩm đều cập nhật các bài viết của họ khi Kirby làm rõ rằng bản thân không bị mắc chứng mất trí nhớ; mà là nghệ danh The Caretaker.[81][82] Kirby tuyên bố, "không cố ý nếu có bất kỳ [nhầm lẫn] nào."[80] Cùng ngày phát hành Giai đoạn 3, Kirby phát hành album phòng thu We, So Tired of All the Darkness in Our Lives. Phát hành Giai đoạn 5, thông cáo báo chí của Kirby đã so sánh sự tiến triển của series với quá trình Brexit đang diễn ra vào thời điểm đó.[83] Bản thu âm cuối cùng của Caretaker, được phát hành cùng với Giai đoạn 6, là Everywhere, an Empty Bliss (2019), một album tổng hợp các tác phẩm ban đầu có ý định sử dụng trên Everywhere.[84][85][86]

Nghệ sĩ thị giác ẩn danh Weirdcore đã tạo video âm nhạc cho hai giai đoạn đầu tiên, cả hai đều được tải lên kênh YouTube "vvmtest" của Kirby. Weirdcore được biết đến với việc tạo ra hình ảnh thị giác cho Aphex Twin.[87] Kirby cho biết hình ảnh thị giác rất quan trọng đối với âm nhạc của mình và gọi chúng là "vượt ra thế giới khác".[54] Vào năm 2020, video của Weirdcore đã được giới thiệu với âm nhạc của Kirby trong một video YouTube có tiêu đề "[−0º]";[88] nó đã được chọn là một trong những tác phẩm nghe nhìn hay nhất của năm bởi Fact.[89] Tính đến ngày 9 tháng 10, 2022, không có video âm nhạc chính thức nào trên vvmtest cho bốn giai đoạn sau.

Vào tháng 12 năm 2017, Kirby đã biểu diễn tại Thành lũy Kraków cho Lễ hội Unsound ở Ba Lan. Chương trình là lần đầu tiên biểu diễn của Kirby kể từ năm 2011, có các tác phẩm của Seal và hình ảnh thị giác của Weirdcore.[90][91][92] Các video âm nhạc sau đó được trình bày trong suốt các buổi biểu diễn tiếp theo của The Caretaker. Vào tháng 3 năm 2018, Kirby được giới thiệu tại Festival Présences électronique ở Paris,[93] nơi Kirby trình diễn một phiên bản của bài hát "Ce Soir" (1944) của Tino Rossi.[53] Kirby đã tham gia chương trình "Solidarity" tháng 5 năm 2019 của Unsound, cũng tại Kraków.[94] Vào tháng 4 năm 2020, Kirby có kế hoạch sẽ biểu diễn trực tiếp cho Lễ hội Rewire "[Re]setting", sẽ diễn ra tại La Hay ở Hà Lan; chương trình đã bị hủy bỏ do đại dịch COVID-19.[95][96] Tuy nhiên, Kirby dự định có một cuộc phỏng vấn và biểu diễn trên Rewire cũng tại La Hay dự kiến ​​diễn ra vào ngày 6–10 tháng 4 năm 2023.[97][98][99] Kirby đã biểu diễn tại Donaufestival Krems vào ngày 7 tháng 5 năm 2022,[100] và tại Primavera Sound Barcelona vào ngày 3 tháng 6.[101][102] Trước đây bày tỏ sự ngần ngại khi biểu diễn,[2] Kirby cho biết giờ mình sẽ khiến mỗi buổi biểu diễn trở thành "một trận chiến để chiến thắng sự rối loạn". Kirby nói thêm rằng Weirdcore sẽ biến những bức tranh của Seal trở nên "sống động", với nghệ thuật thị giác cũng khám phá ý tưởng làm công chúng "phát ốm".[56]